#Candidate Generation

3 篇

Agent Memory as Recommendation: Recommender-System Design for Long-Term Memory of LLM Agents

LLM智能体长期记忆的推荐系统设计

🧭 Agent长期记忆 · slate推荐级联 ★ 深度解读

Fudan University

把Agent记忆选择形式化为预算约束下的slate推荐，零LLM调用匹配64次重排且服务成本降3.2倍

📌 工作参考价值（4 点）

把记忆/上下文选择形式化为预算slate推荐：召回+学习排序+固定预算填充，可迁移到电商Agent客服、导购的多轮历史筛选，或搜索广告的query上下文优选；比动态截断更稳。
零LLM调用链路可落地：BM25+dense embedding双通道召回，RRF融合top128，LightGBM LambdaRank用10个轻量特征（相似度、排名、位置、长度、共享key等）排序，再按token预算贪心填充，写时无LLM成本，适合高QPS生产环境。
用stage factorization定位瓶颈：Acc = ai + (ac-ai)*r_pool*r_rank，先看候选池覆盖率，再看排序是否把证据放进budget；这能避免盲目换模型，直接发现是召回还是排序导致证据丢失。
固定预算填充优于per-query cutoff：当reward沿排序不下降时，任何cutoff都包含于fill，所以Adaptive-k类动态截断只会降低覆盖率；若存在低质量文档的负外部性，才需要set-level模型，否则别用动态截断。

Agent | 2026-10-26 | cs.IR | score 9/10

微调LLM作为补充预测器改进广告系统

🧭 生成式推荐 · 广告辅助预测 ★ 深度解读

Pinterest, Inc., USA

用微调LLM预测潜在转化广告商，注入检索与排序，线上广告回报提升4.94%-6.69%

📌 工作参考价值（4 点）

LLM补全弱信号用户：对行为稀疏的用户，用LLM基于跨域特征（站外搜索/URL）预测可能转化的广告商，作为检索候选补充，显著提升覆盖与转化。
Semantic ID增强LLM：将多模态内容（PinCLIP嵌入量化后的SID）拼入prompt并通过多阶段继续预训练注入模型，可大幅提高广告商预测召回率（Recall@20 +7.2pp），是低成本引入视觉/协同信号的实用路径。
渐进式训练与奖励设计：先SFT学单目标，再GRPO扩展到多输出并利用位置奖励与长度惩罚，这种简单到复杂的两阶段方案适合工业广告预测，GRPO的格式奖励保证了结构化输出直接可用。
工程化部署要点：通过用户分层降低推理量、增量更新只处理活跃用户、vLLM+Ray分布式批量推理配合前缀缓存和连续批处理，可在成本可控下实现天级全量推断，适配推荐系统的时效约束。

RecSys | 2026-05-27 | cs.IR | score 10/10

稳定可预测广告推荐的LLM检索框架

🧭 LLM语义表征增强广告可预测性 ★ 深度解读

Meta Platforms, Inc.

提出基于LLM语义属性与图扩展的广告候选生成，线上可预测性指标A/A'差异降低8.62%，收入提升0.45%。

📌 工作参考价值（4 点）

可预测性指标(A/A'差异)可作为系统稳定性新指标：在电商推荐中，可用来评估模型对商品描述微调、ID切换等输入扰动的鲁棒性，提前发现因特征工程缺陷导致的冷启动或收入波动问题。
利用LLM离线提取商品/广告的层次化语义属性（品类、品牌、上下文描述等），构建语义图，通过Jaccard相似度的图遍历实现语义相似召回；该通道可与现有双塔、图召回共存，作为补充候选源，提升召回多样性和长尾覆盖。
工程上采用离线LLM批量生成元数据+在线查图服务的模式，避免实时LLM推理的高延迟；对于电商推荐，可将商品描述输入LLaMA等模型，生成结构化属性，再通过近似匹配进行相似商品扩展，成本可控。
实验表明LLM候选生成器能有效提升最终召回（+1.2%）和线上收入（+0.45%），且对A/A'波动抑制明显（MAD改善45%），推荐业务可将其作为稳定性优化组件，尤其适合需要高频更新商品库的场景。

RecSys | 2026-05-21 | cs.IR | score 10/10